iT邦幫忙

azure machine learning相關文章
共有 103 則文章
鐵人賽 生成式 AI DAY 29

技術 Day29-介紹 Azure AI Studio

微軟在今年推出了一個全新的平台,叫做 Azure AI Studio。這個算是集微軟 AI 服務於大成的一個平台。旨在幫助開發者和資料科學家通過簡化的 UI,開...

鐵人賽 生成式 AI DAY 28

技術 Day28-建立 Prompt Flow

今天我們開始來建立了一個基本的對話功能的 Prompt Flow 吧!昨天我們已經建立好了一個 Azure OpenAI 的模型了,接著我們就把這麼 gpt-4...

鐵人賽 生成式 AI DAY 26

技術 Day26-認識 Prompt Flow

Azure Machine Learning 在生成式 AI 時代下的另一個全新功能:Prompt Flow! Azure Machine Learning 的...

鐵人賽 生成式 AI DAY 25

技術 Day25-談 Azure ML 的新 SDK

我們聊完了整個 Model catalog、開源模型的部署、Fine Tune、RAG,接下來我們再來聊別的主題吧:CLI 和 SDK Azure Machin...

鐵人賽 生成式 AI DAY 24

技術 Day24-用 RAG 來比較 Fine Tune 的結果

今天我們終於要來做 RAG 了。我們很快就會看到其實在客服性質裡的場景,RAG 的效果會比 Fine Tune 好上很多。 我們接著來寫程式吧! 導入必要的套...

鐵人賽 生成式 AI DAY 23

技術 Day23-把所有的產品資料用 LangChain 的規格儲存到 Qdrant

今天我們就來整理產品資料,而且我們要整理成 LangChain Document 的通用格式,然後儲存到向量資料庫之中。 下面是我們整理好的產品型錄: [...

鐵人賽 生成式 AI DAY 22

技術 Day22-申請 Qdrant SaaS 版本與插入向量資料

Qdrant 除了可以地端自架,也有雲端 SaaS 的免費版本。一般建議除了有自架的需求之外,使用 SaaS 版本會是最省事的。用戶只需要註冊並開始使用,不需處...

鐵人賽 生成式 AI DAY 20

技術 Day20-部署 embedding model Cohere-embed-v3-multilingual

Cohere Embed v3 Multilingual 是 Cohere 最新且最先進的嵌入模型,提供了多語言支持和高效的文本嵌入功能。維度是 1024 維,...

鐵人賽 生成式 AI DAY 19

技術 Day19-淺談 Retrieval-Augmented Generation (RAG) 的手法

Retrieval-Augmented Generation (RAG) 是一種結合了檢索技術和生成技術的強大方法,旨在提高大型語言模型(LLM)的回答準確性,...

鐵人賽 生成式 AI DAY 18

技術 Day18-使用 Fine Tune 的 Meta-Llama-3.1-8B-Instruct

等待了一個晚上,基本上就 Fine Tune 好了。 部署 Fine Tune 好的模型 我們可以到 Azure ML 的 Models 裡看到已經 Fin...

鐵人賽 生成式 AI DAY 18

技術 Day18-使用 Fine Tune 的 Meta-Llama-3.1-8B-Instruct

等待了一個晚上,基本上就 Fine Tune 好了。 部署 Fine Tune 好的模型 我們可以到 Azure ML 的 Models 裡看到已經 Fin...

鐵人賽 生成式 AI DAY 17

技術 Day17-在 Azure Machine Learning 裡 Fine Tune Llama 3.1

今天就要來 Fine Tune 了。需要注意的是,不是每個 workspace 所在的區域都有 Fine Tune 的。舉例來說,我們這個範例所在的 westu...

鐵人賽 生成式 AI DAY 16

技術 Day16-產生 Fine Tune 用的資料

今天我們就來整理資料吧! 打開我們昨天寫好的工具,使用指令 poetry shell 進到虛擬環境裡面,然後讓那個 Python 檔給跑起來。就會看到如下圖的...

鐵人賽 生成式 AI DAY 15

技術 Day15-用 Tkinter 來寫個 Fine Tune 資料用的小工具

今天我們用 tkinter 來寫一個輸入資料可以產生 JSONL 的小工具。 Tkinter 是 Python 的 GUI 套件,它提供了一個簡單易用的方式來建...

鐵人賽 生成式 AI DAY 14

技術 Day14-Fine Tune 模型的資料準備

Fine Tune 的資料集準備,是最困難的一件事了。資料集中的每個例子應該是一段對話,並遵循 OpenAI chat completion API 的格式。需...

鐵人賽 生成式 AI DAY 13

技術 Day13-談 Fine Tune 大語言模型

大語言模型的 Fine Tune 一直是大家很關注的問題,我們接下來的幾天就會實際帶大家在 Azure Machine Learning 上 Fine Tun...

鐵人賽 生成式 AI DAY 12

技術 Day12-部署多模態模型 Phi-3.5 Vision-Instruct

今天我們來用 model catalog 部署多模態的 AI 模型。 我們來部署 Phi-3.5 Vision-Instruct 。這是一款由 Microsof...

鐵人賽 生成式 AI DAY 11

技術 Day11-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之寫程式篇

今天開始來寫程式,串接部署在 Azure ML 上面的 Llama-3.1-8B-Instruct。 使用 curl 我們可以單純使用下面這個 curl 來呼叫...

鐵人賽 生成式 AI DAY 10

技術 Day10-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之虛擬環境篇

Poetry 是一個用於 Python 的套件依賴管理工具。它旨在簡化並統一套件依賴的管理、虛擬環境配置以及專案打包的流程。 Poetry 使用一個 toml...

鐵人賽 生成式 AI DAY 9

技術 Day09-寫程式串接 Serverless 的 Llama-3.1-8B-Instruct 之 LangChain 介紹篇

今天我們開始來寫程式串接 Serverless 部署的 Llama-3.1-8B-Instruct。今天先來介紹我們的主角 LangChain。 LangCha...

鐵人賽 生成式 AI DAY 8

技術 Day08-部署 Serverless 的 Llama-3.1-8B-Instruct

昨天介紹了全新的 Serverless 部署方式我們就來把 Llama-3.1-8B-Instruct 部署起來玩吧! 進到 Model Catalog 的頁...

鐵人賽 生成式 AI DAY 7

技術 Day07-Model Catalog 裡的兩種部署模式

在 Azure Machine Learning 的 Model Catalog 裡,有兩種部署 model 的方式,分別是 Managed compute 和...

鐵人賽 生成式 AI DAY 6

技術 Day06-Model Catalog 傳統部署 curated models 和 HuggingFace

先敘明,今天談的 model 部署,是 Model catalog 裡面的 AI 模型部署,而不是你在 Azure Machine Learning 裡面訓練好...

鐵人賽 生成式 AI DAY 5

技術 Day05-Azure Machine Learning 的 Model Catalog 介紹

Azure Machine Learning 中的 Model Catalog 是專為開發生成式 AI 應用的模型中心,提供多種來自不同模型提供者的模型,包括...

鐵人賽 生成式 AI DAY 4

技術 Day04-導覽 Azure Machine Learning 的 Studio

我們昨天建立好了 Azure Machine Learning 的 workspace ,今天來看 Studio 的部份。在 Azure Machine Lea...

鐵人賽 生成式 AI DAY 3

技術 Day03-建立 Azure Machine Learning

今天我們來建立 Azure Machine Learning。 進入 Azure Portal,在上面的搜尋框裡面,輸入「machine learning」,...

鐵人賽 生成式 AI DAY 1

技術 Day01-生成式 AI 時代下的 Azure Machine Learning 序章

我在 2021 年的時候,寫過一系列 Azure Machine Learning 教學文,那時候曾經是台灣最完整的 Azure Machine Learnin...

鐵人賽 生成式 AI DAY 2

技術 Day02-什麼是 Azure Machine Learning

Azure Machine Learning(我發現微軟的印度團隊會簡稱 AML,其他其他團隊更常用的是 Azure ML 這個詞)是 Microsoft Az...

技術 【Azure MLOps - 最終篇】END TO END CI/CD MLOPS

本系列最後一篇文章!在前面建立了一條CI pipeline和一條CD pipeline:(1) CI pipeline流程,負責上傳、註冊訓練資料到Azure...

技術 【Azure MLOps - 7】建立CD pipeline:把機器學習模型部署到production area

本次建立的CD pipeline中,會有兩個部分:(1)模型自動部署到測試環境(staging area) (上篇文章)(2)模型自動部署到正式環境(produ...